Eigenface Gesichtserkennung¶

  • Autor: Prof. Dr. Johannes Maucher
  • Datum: 27.11.2015

Übersicht Versuche im Data Mining Praktikum

Abgabe:¶

  • Abzugeben ist das Jupyter Notebook mit dem verlangten Implementierungen und den entsprechenden Ausgaben.
  • Das Notebook ist als .ipynb und als .html abzugeben.
  • Klausurelevante Fragen sind Dokument "Fragenkatalog Datamining" zu finden.
  • Antworten auf Fragen im Notebook, Diskussionen und Beschreibung der Ergebnisse sind optional (aber empfohlen) und werden nicht bewertet.
  • Übersicht Data Mining Praktikum

Einführung¶

Lernziele:¶

In diesem Versuch sollen Kenntnisse in folgenden Themen vermittelt werden:

  • Gesichtserkennung: mit der Eigenface Methode.
  • Principal Component Analysis
  • Bildverarbeitung mit Python.

Sämtliche Verfahren und Algorithmen werden in Python implementiert.

Theorie zur Vorbereitung¶

Die Gesichtserkennung kann mit unterschiedlichen Ansätzen realisiert werden. In diesem Versuch wird ausschließlich der Eigenface-Ansatz vorgestellt. Dieser Ansatz basiert auf der Principal Component Analysis (PCA) und wurde erstmals in M. Turk, A. Pentland; Eigenfaces for Recognition vorgestellt. Die Eigenface-Methode weist eine gute Performance im Fall biometrisch aufgenommener Gesichtsbilder auf.

Das Prinzip der Eigenface Gesichtserkennung¶

Bilder mit $C$ Pixeln in der Breite und $R$ Pixeln in der Höhe können als $R \times C$ Matrizen abgespeichert werden. Handelt es sich um ein Schwarz-Weiß- oder Graustufen-Bild, dann wird pro Bild nur eine derartige Matrix benötigt. Der Eintrag in der i.ten Zeile und j.ten Spalte dieser Matrix definiert den Grauwert des entsprechenden Pixels. In Farbbildern werden je nach benutztem Farbraum mehrere Matrizen pro Bild benötigt, wobei jede Matrix einen Farbkanal des Bildes repräsentiert. Für ein RGB-Bild werden z.B. 3 Matrizen für die Farbkanäle Rot, Grün und Blau benötigt.

Im Folgenden wird von quadratischen Graubildern mit $N \times N$ Pixeln ausgegangen. Wird jedes Pixel als ein Merkmal betrachtet, dann existieren insgesamt $N^2$ Merkmale, das Bild kann auch als ein Punkt im $N^2$-dimensionalen Raum betrachtet werden. Bilder der Auflösung $256 \times 256$ müßten also im $65536$-dimensionalen Raum beschrieben werden. Entsprechend komplex wäre die notwendige Verarbeitung. Ist jedoch bekannt, dass in einer Menge von Bildern jeweils ein gleichartiges Objekt abgebildet ist, z.B. wenn alle Bilder ausschließlich je ein Gesicht enthalten, dann existieren große Abhängigkeiten zwischen diesen Bildern. Geometrisch ausgedrückt bedeutet dies, dass die Punkte, welche die Menge der gleichartigen Bilder beschreiben, nicht gleichmäßig über den $N^2$-dimensionalen Raum verteilt sind, sondern in einen relativ kleinen Unterraum mit $K<<N^2$ Dimensionen nahezu vollständig beschrieben werden können. Jede dieser $K$ Dimensionen beschreibt ein für die Kategorie (z.B. Gesichtsbilder) relevantes Merkmal. Im Fall der Gesichtserkennung werden die relevanten Merkmale auch als Eigenfaces bezeichnet. Jedes Eigenface kann als Bild dargestellt werden, welches ein bestimmtes Gesichtsmerkmal besonders hervorhebt. Jedes individuelle Bild der Kategorie (d.h. jedes Gesicht) kann dann als Linearkombination der $K$ relevanten Merkmale (der $K$ Eigenfaces) beschrieben werden.

Das Problem besteht nun zunächst darin, aus einer Menge von Bildern der gleichen Kategorie die relevanten Merkmale zu finden. Dieses Problem wird durch die Principal Component Analysis (PCA) gelöst. Die PCA, findet in einer Menge von Bildern der gleichen Kategorie die Hauptachsen, also die Richtungen im $N^2$-dimensionalen Raum, entlang derer die Varianz zwischen den gegebenen Bildern am stärksten ist. Der $N^2$-dimensionale Pixelraum wird dann in einen Raum, der durch die gefundenen Hauptachsen aufgespannt wird, transformiert. In diesem in der Anzahl der Dimensionen stark reduzierten Raum wird dann die Bilderkennung durchgeführt. Der hier skizzierte Ansatz der Eigenfaces für die Gesichtserkennung wurde erstmalig in M. Turk, A. Pentland; Eigenfaces for Recognition beschrieben.

Genereller Ablauf¶

Die Gesichtserkennung besteht aus 2 Phasen. In der Trainingsphase werden die Gesichtsbilder der zu erkennenden Personen eingelesen und für diese mit der PCA der Eigenface-Raum berechnet. In der Erkennungsphase wird ein neu aufgenommenes Bild in den Eigenface-Raum transformiert und dort dem naheliegendsten Bild aus der Trainingsmenge zugeordnet.

Trainingsphase¶

  1. Lese Gesichtsbilder der Personen, die erkannt werden sollen ein. Die Menge dieser Bilder definiert das Trainingsset.
  2. Berechne mit der PCA den Eigenface-Raum. Dabei werden nur die K Dimensionen, welche zu den Eigenvektoren mit den größten Eigenwerten gehören ausgewählt. Die zu den K Dimensionen (Eigenvektoren) gehörenden Bilder sind die Eigenfaces.
  3. Transformiere jedes Bild der Trainingsmenge in den Eigenface-Raum und erhalte so die entsprechende Repräsentation des Bildes als Punkt im Eigenface-Raum.

Erkennungsphase¶

  1. Transformiere das zu erkennende Bild in den Eigenface-Raum und berechne dort die Koordinaten des Bildes hinsichtlich aller K-Dimensionen (Eigenfaces).
  2. Bestimme ob das zu erkennende Bild überhaupt ein Gesicht darstellt.
  3. Bestimme ob das Gesicht zu einer bekannten Person, deren Bild in der Trainingsmenge enthalten ist, gehört.

Update (optional)¶

Füge das erkannte Bild zur Menge der Trainingsbilder hinzu und führe die Schritte der Trainingsphase durch.

Bestimmung der Eigenfaces¶

Es werden zunächst $M$ Gesichtsbilder der zu erkennenden Personen eingelesen (von jeder zu erkennenden Personen möglichst mehrere Bilder). Es wird davon ausgegangen, dass jedes der Bilder $C$ Pixel breit und $R$ Pixel hoch ist. Das Bild kann dann als $R \times C$ Matrix dargestellt werden. Im Fall eines Graustufenbildes repräsentieren die Pixelwerte den entsprechenden Grauwert. Nach dem Einlesen werden die Bildmatrizen als eindimensionale Vektoren dargestellt. Für diese Umformung werden die Zeilen jeder Matrix von oben nach unten ausgelesen und hintereinander gereiht. Jedes Bild wird dann durch einen Vektor der Länge $Z=R \cdot C$ repräsentiert und kann als Punkt im Z-dimensionalen Raum dargestellt werden. Die $M$ Bildvektoren werden im folgenden mit $$\Gamma _1, \Gamma_2, \ldots, \Gamma_M$$ bezeichnet.

Im nächsten Schritt wird das Durchschnittsbild berechnet $$ \overline{\Gamma}=\frac{1}{M}\sum_{i=1}^{M}{\Gamma_{i}} $$

Dieses Durchschnittsbild wird von allen Bildern $\Gamma_i$ abgezogen. Die Menge der so gewonnenen Bildrepräsentationen $$ \Phi_i=\Gamma_i - \overline{\Gamma} $$

ist dann mittelwertsfrei. Die Menge $\Phi_1, \Phi_2, \ldots, \Phi_M$ wird dann einer Principal Component Analysis (PCA) (siehe auch J. Maucher; Feature Selection and Extraction) unterzogen. Hierzu werden die mittelwertfreien Bildrepräsentationen $\Phi_i$ in die Spalten einer Matrix geschrieben. Diese Matrix wird im Folgenden mit $X$ bezeichnet. Unter der Annahme, dass die $\Phi_i$ bereits als Spaltenvektoren vorliegen, ist die Matrix $X$ definiert als:

$$ X=\left[ \Phi_1, \Phi_2, \ldots, \Phi_M \right]. $$

Die entsprechende Kovarianzmatrix ist dann $$ CV=X \cdot X^T. $$

Für die PCA müssten als nächstes eigentlich die Eigenvektoren und Eigenwerte der Kovarianzmatrix $CV$ berechnet werden. Für den vorliegenden Fall kann allerdings die hierfür notwendige Berechnung aus Komplexitätsgründen nicht realisiert werden. Man beachte dass die Matrix $CV$ $Z$ Spalten und $Z$ Zeilen enthält ($Z$ ist die Anzahl der Pixel in einem Bild) und für diese $Z$ Eigenvektoren und Eigenwerte existieren. Wie in M. Turk, A. Pentland; Eigenfaces for Recognition beschrieben, existieren im Fall, dass die Anzahl der Bilder $M$ wesentlich kleiner als die Anzahl der Pixel $Z$ ist, nur $M-1$ relevante Eigenvektoren, die Eigenwerte aller anderen Eigenvektoren liegen nahe bei Null. Der in M. Turk, A. Pentland; Eigenfaces for Recognition beschriebene Ansatz geht nun von der $M \times M$ Matrix

$$ X^T \cdot X $$

aus, für welche die Eigenvektoren und Eigenwerte für eine moderate Bildanzahl $M$ gut berechnet werden können. Per Definition gilt für die Eigenvektoren $\mathbf{v}_i$ und Eigenwerte $\mu_i$ dieser Matrix:

$$ X^T \cdot X \cdot \mathbf{v}_i = \mu_i \mathbf{v}_i . $$

Werden beide Seiten dieser Matrix linksseitig mit der Matrix $X$ multipliziert,

$$ X \cdot X^T \cdot X \cdot \mathbf{v}_i = \mu_i X \mathbf{v}_i, $$ dann ist daraus zu erkennen, dass die $M$ Vektoren $$ \mathbf{u}_i=X \mathbf{v}_i $$

die Eigenvektoren der Matrix $$CV=X \cdot X^T$$ sind. D.h. es können zunächst die $M$ Eigenvektoren der relativ kleinen Matrix $X^T \cdot X$ bestimmt und aus diesen durch eine einfache Multiplikation mit der Matrix $X$ die relevanten Eigenvektoren der Matrix $CV$ berechnet werden. Da die Matrix $X$ die $M$ Bildrepräsentationen $\Phi_i$ als Spalten enthält, können die gesuchten Eigenvektoren auch als Linearkombination der $M$ Bilder der Trainingsmenge beschrieben werden:

$$ \mathbf{u}_i=\sum_{k=1}^{M}{v_{i,k}\Phi_k} $$

wobei mit $v_{i,k}$ die $k.$te Komponente des Vektors $\mathbf{v}_i$ bezeichnet wird. Die Eigenvektoren $\mathbf{u}_i$ werden auch Eigenfaces genannt. Per Definition sind die Eigenvektoren paarweise orthogonal. Jeder Eigenvektor ist ein Spaltenvektor mit $Z$ (=Anzahl der Pixel) Komponenten.

Die $M$ Eigenvektoren werden dann entsprechend der Größe der zugehörigen Eigenwerte $\mu_i$ geordnet. Für die weiteren Schritte kann zum Zwecke einer weiteren Komplexitätsreduktion eine Untermenge der $K$ relevantesten Eigenvektoren benutzt werden (also der $K$ Eigenvektoren mit den höchsten Eigenwerten). Beispielsweise ist in M. Turk, A. Pentland; Eigenfaces for Recognition für die Erkennung von $M=16$ Personen und eine Auflösung von $256 \times 256$ Pixel meist $K=7$ Eigenvektoren für eine gute Erkennung ausreichend.

Gesichtserkennung im Eigenspace¶

Die $K$ ausgewählten Eigenvektoren $\mathbf{u}_1,\mathbf{u}_2,\ldots \mathbf{u}_K$ spannen einen $K-$dimensionalen Raum, den sogenannten Eigenspace auf. Die $K$ Vektoren repräsentieren die $K$ Merkmale hinsichtlich derer die Bilder der Trainingsdatenmenge am stärksten variieren.

Für die Bilderkennung wird jetzt jedes Bild, also sowohl die Bilder aus der Trainingsmenge als auch die zu erkennenden Bilder, in den Eigenspace transformiert. Jedes Bild stellt einen Punkt im Eigenspace dar. Für die Erkennung kann einfach die Distanz des zu erkennenden Bildes zu allen Bildern der Trainingsmenge berechnet werden. Das zu erkennende Bild wird der Person (Bildklasse) zugeordnet, deren Punkt im Eigenspace dem Punkt des zu erkennenden Bildes am nächsten liegt.

Die $K$ Komponenten eines Trainingsbildes werden berechnet, indem das Bild auf den jeweiligen Eigenvektor projiziert wird. Demnach ist die $k.$te Komponente des $i.$ten Trainingsbildes $\Phi_i$: $$ \omega_{k,i}=\mathbf{u}_k^T \Phi_i $$

Der dem Bild $\Phi_i$ entsprechende Punkt im Eigenspace ist dann $$ \mathbf{w}_i=[\omega_{1,i},\omega_{2,i},\ldots,\omega_{K,i}]. $$

Wird mit $\Gamma$ das zu erkennende Bild und mit $\Phi=\Gamma - \overline{\Gamma}$ die um den Mittelwert der Trainingsbilder subtrahierte Version des Bildes bezeichnet, dann sind $$ \omega_{k}=\mathbf{u}_k^T \Phi $$

die Koordinaten der Projektion von $\Phi$ in den Eigenspace und der dieses Bild repräsentierende Punkt $$ \mathbf{w}=[\omega_{1},\omega_{2},\ldots,\omega_{K}]. $$

Das zu erkennende Bild wird dann dem Trainingsbild $\Phi_j$ zugeordnet, für welches gilt: $$ j=argmin_{i} \left\{ d(\mathbf{w},\mathbf{w}_i) \right\} $$

wobei mit $d(\mathbf{w},\mathbf{w}_i)$ die euklidische Distanz zwischen den Projektionen von $\Phi$ und $\Phi_i$ bezeichnet wird.

Optional: Falls $\Phi_i$ nicht das einzige Bild einer Person in der Trainingsmenge ist, sondern für die entsprechende Person mehrere Trainingsbilder vorliegen, wird in der Distanzberechnung nicht $\Phi_i$, sondern der Mittelwert über alle zu dieser Person gehörenden Bilder eingesetzt:

$$ \overline{\Phi}=\frac{1}{|W|}\sum_{w \in W}^{}{\Phi_w} . $$

Dabei bezeichnet $W$ die Menge aller der Indizes $w$, für die die $\Phi_w$ zur gleichen Person gehören. Im Praktikumsversuch muss diese Option nicht implementiert werden. Die im folgenden Abschnitt beschriebene Versuchsdurchführung bezieht sich auf den Fall, dass nur die Distanz zu Einzelbildern berechnet wird und das nächstliegende Bild ausgegeben wird.

Für die Mindestdistanz $$ \epsilon =\min_{i} \left\{ d(\Phi,\Phi_i) \right\} $$

wird in der Regel eine Schwelle $T$ definiert. Wenn $\epsilon > T$ ist, also eine relativ große Distanz zwischen dem zu erkennenden Bild und dem nächstliegenden Bild aus der Trainingsmenge besteht, wird davon ausgegangen, dass es sich um ein unbekanntes Gesicht handelt. Optional könnte dieses unbekannte Gesicht in die Trainingsmenge aufgenommen werden.

Schließlich muss noch der Fall behandelt werden, dass das eingelesene Bild kein Gesicht darstellt. Aufgrund der starken Projektion vom ursprünglichen Bildraum in den Eigenspace kann dieser Fall nicht durch eine Schwelle auf den Fehler $\epsilon$ erkannt werden. Es kann durchaus sein, dass ein Nicht-Gesichtsbild in die Umgebung eines Gesichtsbild im Eigenspace projiziert wird. Ein Nicht-Gesichtsbild wird aber eine relativ große Distanz $d(\Phi,\Phi_f)$ zwischen

$$ \Phi=\Gamma - \overline{\Gamma} $$ und der Repräsentation im Eigenspace $$ \Phi_f=\sum_{k=1}^{K}{\omega_k}\mathbf{u}_k $$ aufweisen. Durch die Definition einer weiteren Schwelle $S$ auf $d(\Phi,\Phi_f)$ kann also erkannt werden, ob es sich überhaupt um ein Gesicht handelt. Im Versuch ist davon auszugehen, dass nur Gesichtsbilder verwendet werden, d.h. es muss nur der Test gegen die Schwelle $\epsilon$ implementiert werden.

Vor dem Versuch zu klärende Fragen¶

  • Was sind Eigenvektoren und Eigenwerte?
  • Eigenvektoren sind die Vektoren innerhalb der transformierten Matrix
  • Eigenwerte ist der Skalar des EIgenvektors
  • Was versteht man unter Eigenfaces?

Antowrt:

Im Fall der Gesichtserkennung werden die relevanten Merkmale auch als Eigenfaces bezeichnet. Jedes Eigenface kann als Bild dargestellt werden, welches ein bestimmtes Gesichtsmerkmal besonders hervorhebt.

  • Die PCA ist u.a. im entsprechenden Kapitel des Dokuments J. Maucher; Feature Selection and Extraction beschrieben. Wie kann mit der PCA eine Dimensionalitätsreduktion durchgeführt werden?

Durch die Dimenionalitätsreduktion, welche die Teilmengen der ursprünglichen Merkmalsmengen ist

  • Wie werden mit dem Python Modul Image Bilder in ein Python-Programm geladen?
  • Mit PIL-IMage.open() wird das Bild eingelesen und erkannt, indem der Pfad des Bildes angegeben wird
  • Es wird ein Image-Objekt zurückgegeben

Versuchsdurchführung¶

Einlesen der Gesichtsbilder in Numpy Arrays¶

Laden Sie die Gesichtsbilder von Nextcloud herunter. Darin enthalten sind

  • das Unterverzeichnis training, welches je 3 Bilder jedes Studenten enthält,
  • das Unterverzeichnis test, welches die nicht in training enthaltenen Bilder enthält. Ein Bild von jedem Studenten.

Mit der unten gegebenen Funktion parseDirectory(directoryName,extension) wird eine Liste aller Dateinamen des Typs extension im Verzeichnis directoryName angelegt.

Aufgabe:

  1. Legen Sie mit dieser Funktion eine Liste mit allen Dateinamen des Typs extension='png' im Verzeichnis training (enthält die Trainingsbilder) an.
  2. Implementieren Sie eine Funktion readImageToNumpyData(imageList), der eine Liste aller Dateinamen der Trainingsbilder übergeben wird. Die Funktion gibt ein Numpy-Array zurück. Jede Zeile dieses Arrays enthält ein .png-Bild in serialisierter Form. Hierzu ist jedes einzelne Bild zunächst mit der Funktion matplotlib.image.imread(filename) in ein zweidimensionales Numpy Array img zu lesen. Durch den Aufruf von img.shape=(1,-1) wird das zweidimensionale Numpy Array zu einem eindimensionalen Array serialisiert. Dasselbe kann auch durch img=img.reshape((1,-1)) erreicht werden. Danach muss eine Normierung aller Werte in den Bereich zwischen 0 und 1 durchgeführt werden. Hierzu müssen alle Pixelwerte eines Bildes durch den im jeweiligen Bild vorkommenden Maximalwert geteilt werden.
In [55]:
%matplotlib inline
from os.path import isdir,join,normpath
from os import listdir
import numpy as np
from matplotlib import pyplot as plt
from matplotlib import image as mplimg
import random
In [56]:
def parseDirectory(directoryName, extension):
    '''
    This method returns a list of all filenames in the Directory directoryName. 
    For each file the complete absolute path is given in a normalized manner (with 
    double backslashes). Moreover only files with the specified extension are returned in 
    the list.
    '''
    if not isdir(directoryName): return

    imagefilenameslist=sorted([
        normpath(join(directoryName, fname))
        for fname in listdir(directoryName)
        if fname.lower().endswith('.'+extension)            
        ])
    
    return imagefilenameslist
In [57]:
train_images = parseDirectory(directoryName='.\\FaceRecogBilder\\training', extension='png')
In [58]:
def readImageToNumpyData(imageList):
    results = [mplimg.imread(i).reshape((1, -1))[0] for i in imageList] # Transform each png into numpy array format & 2-DIM to 1-DIM array
    results = [i/max(i) for i in results] # Normed pixel values
    return np.array(results)
In [59]:
normed_train_data = readImageToNumpyData(imageList=train_images) # Save noormed train data
In [60]:
normed_train_data.shape # Norm train data shape
Out[60]:
(63, 33000)

Berechnung des Durchschnittbildes¶

Aufgaben:

  1. Die von der Funktion readImageToNumpyData(imgList) zurückgelieferte Matrix enthält in ihren Zeilen alle Trainingsbilder. Aus diesen Trainingsbildern ist nach der Gleichung für $\overline{\Gamma}$ das Durchschnittsbild zu berechnen, z.B. durch Anwendung der Numpy-Funktion average. Das Durchschnittsbild ist von allen Bildern abzuziehen (Gleichung $\Phi_i$). Das daraus resultierende Numpy-Array enthält die mittelwertfreien Repräsentationen der Trainingsbilder und wird im Folgenden mit NormedArrayOfFaces bezeichnet.
In [61]:
average_img = np.average(normed_train_data, axis=0) # The average face
In [62]:
average_img.shape # The average face shape
Out[62]:
(33000,)
In [63]:
normedArrayOfFaces = normed_train_data - average_img # Substract the average face from all images
In [64]:
normedArrayOfFaces.shape # normed array of faces shape
Out[64]:
(63, 33000)
  1. Zeigen Sie das Durchschnittsbild mithilfe der matplotlib.pyplot.imshow() an. Hierzu muss das eindimensionale Numpy Array, welches das Durchschnittsbild enthält, in ein zweidimensionales Array der ursprünglichen Bildgröße umgewandelt werden (Numpy Funktion reshape())

Wichtiger Hinweis: Das Numpy-Array NormedArrayOfFaces ist die Transpornierte $X^T$ der Matrix $X$ aus Gleichung $X$.

In [65]:
plt.imshow(average_img.reshape((220, 150)), cmap='gray') # Plot the average face
Out[65]:
<matplotlib.image.AxesImage at 0x25b010b0f70>
No description has been provided for this image

Berechnung der Eigenfaces¶

Aufgaben:

  1. Implementieren Sie die Funktion calculateEigenfaces(adjfaces,width,height). Dieser Funktion werden die normierten Bilder NormedArrayOfFaces zusammen mit der Bildbreite und -höhe übergeben. Zurück liefert die Funktion ein Numpy-Array, dessen Zeilen die berechneten normierten Eigenfaces sind. Die Berechnung der Eigenfaces ist im Theorieteil Abschnitt Bestimmung der Eigenfaces beschrieben. Für die Python-Implementierung können Sie folgende Hinweise berücksichtigen:
    • Berechnung der transponierten eines Numpy-Arrays $A$ mit der Numpy-Methode transpose()
    • Matrixmultiplikation zweier Numpy-Arrays $A$ und $B$ mit der Numpy-Funktion dot()
    • Berechnung der Eigenvektoren und Eigenvalues eines Numpy Arrays $A$ mit der Numpy-Funktion linalg.eigh()
    • Sortierung von Numpy-Arrays mit den Numpy-Funktionen sort() und argsort().
In [66]:
def calculateEigenfaces(adjfaces):
    '''
    This function take the normed array of faces and ...
    - calculates the tranposed matrix
    - multiply the givn matrix with the transposed matrix
    - calculates the eigenvalues and eigenvectors == eigenfaces
    - transpose the eigefaces and return them as an array
    '''
    CV = np.dot(adjfaces, adjfaces.T) # Calculate covariance matrix
    eigenvalues, eigenvectors = np.linalg.eigh(CV) # Calculate eigenvalues and eigenvectors
    eigenfaces = np.dot(adjfaces.T, eigenvectors) # Calculate eigenfaces
    return eigenfaces
In [67]:
eigenfaces = calculateEigenfaces(adjfaces=normedArrayOfFaces) # Save the outut of the function
In [68]:
eigenfaces.shape # Eigenfaces shape
Out[68]:
(33000, 63)
  1. Aus dem von der Funktion calculateEigenfaces(adjfaces,width,height) zurück gelieferten Array von Eigenfaces sind die $K$ relevantesten auszuwählen. Dieses reduzierte Array wird im Folgenden mit Usub bezeichnet. Im Versuch kann $K=6$ eingestellt werden.
In [69]:
usub = eigenfaces.T[-6:] # The K (6) most important eigenfaces
In [70]:
usub = usub.T # Transpose usub for later
In [71]:
usub.shape # Usub shape
Out[71]:
(33000, 6)
  1. Zeigen Sie die $K=6$ wichtigsten Eigenfaces als Bilder mit der matplotlib.pyplot.imshow() an.
In [72]:
plt.figure(figsize=(10, 10)) # Define figure
for i in range(usub.shape[1]): # Iterate over usub at shape [1]
    plt.subplot(1, usub.shape[1], i + 1) # Add subplot to figure
    plt.imshow(usub[:, i].reshape(220, 150), cmap='gray') # Show the image with imshow
    plt.title(f"Eigenface {usub.shape[1] - i}") # Show title with index of eigenface
    plt.axis('off') # Remove axis

plt.show() # Show plot

# Reverse showcase (6, 5, 4, 3, 2, 1)
No description has been provided for this image

Transformation der normierten Trainingsbilder in den Eigenface Raum¶

Aufgabe:

Die im vorigen Schritt angelegten $K$ relevantesten Eigenfaces spannen den sogenannten Eigenface-Raum auf. Für jedes der normierten Trainingsbilder, also für jede Zeile aus NormedArrayOfFaces, sind die Koordinaten im Eigenface-Raum entsprechend der Gleichung für $\omega_{k,i}$ definierten Transformation zu berechnen.

In [73]:
training_weights = np.dot(normedArrayOfFaces, usub) # Calculate w_k,i
In [74]:
training_weights.shape # w_k,i shape
Out[74]:
(63, 6)

Erkennung¶

Aufgaben:

  1. Wählen Sie ein Bild aus dem Verzeichnis test aus. Das ausgewählte zu erkennende Bild ist als Numpy-Array darzustellen. Eine Normierung der Pixelwerte in den Bereich zwischen 0 und 1 ist durchzuführen (wie bereits oben beschrieben). Schließlich muss auch von diesem Bild das Durchschnittsbild aller Trainingsbilder abgezogen werden. Diese Prozessschritte entsprechen der oben beschriebenen Vorverarbeitung der Trainingsbilder. Das resultierende normierte und mittelwertfreie Bild wird im Folgenden mit NormedTestFace bezeichnet.
In [75]:
test_data = parseDirectory(directoryName='.\\FaceRecogBilder\\test', extension='png') # Load the test data
In [76]:
normed_test_data = readImageToNumpyData(imageList=test_data) # Norm test data and transform into numpy array format
In [77]:
normed_test_data.shape # test data shape
Out[77]:
(21, 33000)
In [78]:
choosen_img = normed_test_data[0] # Choose only one image
In [79]:
choosen_img.shape # Choosen image shape
Out[79]:
(33000,)
In [80]:
normedTestFace = choosen_img - average_img # Substract the average face of the training data from the test image
In [81]:
normedTestFace.shape # Normed test face shape
Out[81]:
(33000,)
In [82]:
normedTestFace # Print the normed test face array
Out[82]:
array([0.00670159, 0.00654614, 0.00703114, ..., 0.09701014, 0.08949825,
       0.08391508], dtype=float32)
In [83]:
# For later
normedTestFaces = normed_test_data - average_img # Calculate the normed faces for all the test data
In [84]:
# For later
normedTestFaces.shape # Normed test faces (all) shape
Out[84]:
(21, 33000)
  1. Danach sind die Koordinaten des NormedTestFace im Eigenface-Raum nach Gleichung $\omega_{k}$ zu berechnen und das in diesem Raum nächstliegende Trainingsbild zu bestimmen.
In [85]:
test_weight_single = np.dot(normedTestFace, usub) # Calculate w_k for single image
In [86]:
test_weight_single.shape # w_k shape
Out[86]:
(6,)
In [87]:
distances = [np.linalg.norm(test_weight_single - train_weight) for train_weight in training_weights] # Calculate euclidean distances
min_index = np.argmin(distances) # Calculate argmin of the the distances
min_distance = distances[min_index] # Get the index of the distance at index min_index

plt.figure(figsize=(6, 3)) # Create figure

# Test image
plt.subplot(1, 2, 1) # Create subplot
plt.title("Test Image") # Title
plt.imshow(choosen_img.reshape(220, 150), cmap='gray') # Show image from the test data
plt.axis('off') # Remove axis

# Recognized image
recognized_image = normed_train_data[min_index]

plt.subplot(1, 2, 2) # Create subplot
plt.title(f"Recognized Image\nDistance: {min_distance:.2f}") # Title and the distance
plt.imshow(recognized_image.reshape(220, 150), cmap='gray') # Show recognized image from the train data
plt.axis('off') # Remove axis

plt.show() # Show plot
No description has been provided for this image

Aufgaben:

  1. Führen Sie die implementierte Gesichtserkennung für alle Bilder im Verzeichnis test aus. Zeigen Sie jeweils das Testbild, das zugehörige erkannte Bild und die Distanz zwischen beiden Bildern an.
In [88]:
def calculate_distance(weights1, weights2):
    '''
    This function taked to weight and calculates the euclidean distance
    '''
    return np.linalg.norm(weights1 - weights2)
In [89]:
def calculate_weights(usub):
    training_weights = np.dot(normedArrayOfFaces, usub) # Calculate w_k,i
    test_weights = np.dot(normedTestFaces, usub) # Calculate w_k for all test images
    return training_weights, test_weights
In [90]:
def face_recogniation(normed_test_data, normedArrayOfFaces, k):

    eigenfaces = calculateEigenfaces(adjfaces=normedArrayOfFaces)
    usub = eigenfaces.T[-k:]
    usub = usub.T

    training_weights, test_weights = calculate_weights(usub=usub)

    for i, test_weight in enumerate(test_weights):
        distances = [calculate_distance(test_weight, train_weight) for train_weight in training_weights] # Calculate euclidean distances
        min_index = np.argmin(distances) # Calculate argmin of the the distances
        min_distance = distances[min_index] # Get the index of the distance at index min_index

        plt.figure(figsize=(6, 3)) # Create figure
        
        # Test image
        plt.subplot(1, 2, 1) # Create subplot
        plt.title("Test Image") # Title
        plt.imshow(normed_test_data[i].reshape(220, 150), cmap='gray') # Show image from the test data
        plt.axis('off') # Remove axis
        
        # Recognized image
        recognized_image = normed_train_data[min_index]

        plt.subplot(1, 2, 2) # Create subplot
        plt.title(f"Recognized Image\nDistance: {min_distance:.2f}") # Title and the distance
        plt.imshow(recognized_image.reshape(220, 150), cmap='gray') # Show recognized image from the train data
        plt.axis('off') # Remove axis
        
        plt.show() # Show plot
  1. Bestimmen Sie für die Werte $K=5,K=10$ und $K=15$ ($K$ ist die Anzahl der verwendeten Eigenfaces) die Rate falsch erkannter Bilder.
In [91]:
face_recogniation(normed_test_data=normed_test_data,
                  normedArrayOfFaces=normedArrayOfFaces,
                  k=5)
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image

Antwort: 4 falsch erkannte Bider. $4/21 \thickapprox 19\%$

In [92]:
face_recogniation(normed_test_data=normed_test_data,
                  normedArrayOfFaces=normedArrayOfFaces,
                  k=10)
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image

Antwort: 2 falsch erkannte Bider. $2/21 \thickapprox 9.5\%$

In [93]:
face_recogniation(normed_test_data=normed_test_data,
                  normedArrayOfFaces=normedArrayOfFaces,
                  k=15)
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image

Antwort: 2 falsch erkannte Bider. $2/21 \thickapprox 9.5\%$

Hypothese¶

Die Anreicherung der Trainigsdaten durch horizontal gespiegelte Trainingsbilder verbessert die Gesichtserkennung, weil dadurch Merkmale besser in den Matrizen hervorstechen.¶

Wir nehmen an, dass die Hypothese zutreffen könnte, da Gesichter annähernd symetrisch sind und die Merkmale der Gesichter somit an den richtigen Stellen sind. Durch eine vertikale Spiegelung wären die Bilder auf den Kopf gestellt und die Merkmale somit an falscher Stelle.

In [94]:
def horizontal_flip(train_images):
    '''
    This function taked an array of images, flip them horizontal, reshapes them and norm the values
    '''
    hi = [mplimg.imread(i) for i in train_images]
    hi = [np.flip(i, axis=1) for i in hi]
    hi = [i.reshape((1, -1))[0] for i in hi]
    hi = [i/max(i) for i in hi]
    return np.array(hi)
In [95]:
def horizontal_random_flip(test_images):
    '''
    Ths function takes an array of images and flip them horizontal by a probability of 50%.
    Reshape and normation is done afterwards.
    '''
    hri = [mplimg.imread(i) for i in test_images]
    hri = [np.flip(i, axis=1) if random.randint(0, 1) == 0 else i for i in hri]
    hri = [i.reshape((1, -1))[0] for i in hri]
    hri = [i/max(i) for i in hri]
    return np.array(hri)
In [108]:
test_images_random_flip = horizontal_random_flip(test_data) # Test images with 50% horizontal flip
test_images_random_flip.shape
Out[108]:
(21, 33000)
In [97]:
train_images_horizontalFlip = horizontal_flip(train_images) # Training data with horizontal flip
train_images_horizontalFlip.shape
Out[97]:
(63, 33000)
In [98]:
train_images_concatenated = np.concatenate((normed_train_data, train_images_horizontalFlip)) # Both training datasets concatenated
train_images_concatenated.shape
Out[98]:
(126, 33000)
In [99]:
average_img_h = np.average(train_images_concatenated, axis=0) # Calculate the average img of new training data
In [100]:
plt.imshow(average_img_h.reshape((220, 150)), cmap='gray') # Show average image
Out[100]:
<matplotlib.image.AxesImage at 0x25b044276d0>
No description has been provided for this image
In [101]:
normedArrayOfFaces_h = train_images_concatenated - average_img_h # New normed array of faces
normedArrayOfFaces_h.shape
Out[101]:
(126, 33000)
In [102]:
eigenfaces_h = calculateEigenfaces(adjfaces=normedArrayOfFaces_h) # Calculate new eigenfaces
eigenfaces_h.shape
Out[102]:
(33000, 126)
In [103]:
usub_h = eigenfaces_h.T[-6:] # The K (6) most important eigenfaces
usub_h = usub_h.T
usub_h.shape
Out[103]:
(33000, 6)
In [104]:
plt.figure(figsize=(10, 10)) # Define figure
for i in range(usub_h.shape[1]): # Iterate over usub at shape [1]
    plt.subplot(1, usub_h.shape[1], i + 1) # Add subplot to figure
    plt.imshow(usub_h[:, i].reshape(220, 150), cmap='gray') # Show the image with imshow
    plt.title(f"Eigenface {usub_h.shape[1] - i}") # Show title with index of eigenface
    plt.axis('off') # Remove axis

plt.show() # Show plot

# Reverse showcase (6, 5, 4, 3, 2, 1)
No description has been provided for this image
In [109]:
face_recogniation(normed_test_data=normed_test_data,
                  normedArrayOfFaces=normedArrayOfFaces_h,
                  k=5)
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image

Durchlauf 1: Trainingsdaten mit horizontal gespiegelten Daten, auf normalen Testdaten

  • normed_test_data=test_images
  • normedArrayOfFaces=normedArrayOfFaces_h
  • k=5

Ergebnis: 4 falsch erkannte Bider. $4/21 \thickapprox 19\%$

Durchlauf 2: Trainingsdaten mit horizontal gespiegelten Daten, auf c.a. 50% horizontal gespiegelten Testdaten

  • normed_test_data=test_images_random_flip
  • normedArrayOfFaces=normedArrayOfFaces_h
  • k=5

Ergebnis: 4 falsch erkannte Bider. $4/21 \thickapprox 19\%$

Durchlauf 3: Normale Trainingsdaten, auf c.a. 50% horizontal gespiegelten Testdaten

  • normed_test_data=test_images_random_flip
  • normedArrayOfFaces=normedArrayOfFaces
  • k=5

Ergebnis: 4 falsch erkannte Bider. $4/21 \thickapprox 19\%$

In [110]:
face_recogniation(normed_test_data=normed_test_data,
                  normedArrayOfFaces=normedArrayOfFaces_h,
                  k=10)
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image

Durchlauf 1: Trainingsdaten mit horizontal gespiegelten Daten, auf normalen Testdaten

  • normed_test_data=test_images
  • normedArrayOfFaces=normedArrayOfFaces_h
  • k=10

Ergebnis: 3 falsch erkannte Bider. $3/21 \thickapprox 14\%$

Durchlauf 2: Trainingsdaten mit horizontal gespiegelten Daten, auf c.a. 50% horizontal gespiegelten Testdaten

  • normed_test_data=test_images_random_flip
  • normedArrayOfFaces=normedArrayOfFaces_h
  • k=10

Ergebnis: 3 falsch erkannte Bider. $3/21 \thickapprox 14\%$

Durchlauf 3: Normale Trainingsdaten, auf c.a. 50% horizontal gespiegelten Testdaten

  • normed_test_data=test_images_random_flip
  • normedArrayOfFaces=normedArrayOfFaces
  • k=10

Ergebnis: 2 falsch erkannte Bider. $2/21 \thickapprox 9.5\%$

In [111]:
face_recogniation(normed_test_data=normed_test_data,
                  normedArrayOfFaces=normedArrayOfFaces_h,
                  k=15)
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image
No description has been provided for this image

Durchlauf 1: Trainingsdaten mit horizontal gespiegelten Daten, auf normalen Testdaten

  • normed_test_data=test_images
  • normedArrayOfFaces=normedArrayOfFaces_h
  • k=15

Ergebnis: 2 falsch erkannte Bider. $2/21 \thickapprox 9.5\%$

Durchlauf 2: Trainingsdaten mit horizontal gespiegelten Daten, auf c.a. 50% horizontal gespiegelten Testdaten

  • normed_test_data=test_images_random_flip
  • normedArrayOfFaces=normedArrayOfFaces_h
  • k=15

Ergebnis: 2 falsch erkannte Bider. $2/21 \thickapprox 9.5\%$

Durchlauf 3: Normale Trainingsdaten, auf c.a. 50% horizontal gespiegelten Testdaten

  • normed_test_data=test_images_random_flip
  • normedArrayOfFaces=normedArrayOfFaces
  • k=15

Ergebnis: 2 falsch erkannte Bider. $2/21 \thickapprox 9.5\%$

Fazit:¶

  • Das Hinzufügen von horizontal gespiegelten Bildern hat einen leicht verschlechternden bzw. keinen Einfluss auf die Gesichterkennung.
  • Die Fehlerrate bei den verschiedenen Durchläufen hat sich nur bei K=10 mit einer Fehlerrate von 14% verschlechtert.